前文
今天的文章將要介紹長短期記憶網路(LSTM)，一種在深度學習中蠻受歡迎的演算法。
概論
長短期記憶網路(LSTM)是一種時間循環神經網路（RNN），由於獨特的設計結構，LSTM適合於處理和預測時間序列中間隔和延遲非常長的重要事件。
結構
LSTM是一種含有LSTM區塊（blocks）或其他的一種類神經網路，文獻或其他資料中LSTM區塊可能被描述成智慧型網路單元，因為它可以記憶不定時間長度的數值，區塊中有一個gate能夠決定input是否重要到能被記住及能不能被輸出output。
下圖底下是四個S函數單元，最左邊函數依情況可能成為區塊的input，右邊三個會經過gate決定input是否能傳入區塊，左邊第二個為input gate，如果這裡產出近似於零，將把這裡的值擋住，不會進到下一層。左邊第三個是forget gate，當這產生值近似於零，將把區塊裡記住的值忘掉。第四個也就是最右邊的input為output gate，他可以決定在區塊記憶中的input是否能輸出 。

圖片來源
https://zh.wikipedia.org/zh-tw/%E9%95%B7%E7%9F%AD%E6%9C%9F%E8%A8%98%E6%86%B6
資料來源
https://zh.wikipedia.org/zh-tw/%E9%95%B7%E7%9F%AD%E6%9C%9F%E8%A8%98%E6%86%B6